รูดอล์ฟ คาลมาน เกิดที่เมืองบูดาเปสต์ ประเทศฮังการี มีบิดาเป็นวิศวกรไฟฟ้า จึงเป็นแรงบันดาลใจให้เขาเดินตามรอยเท้าของบิดา ต่อมาครอบครัวอพยพมาสหรัฐอเมริกาในปี ค.ศ. 1943 และสำเร็จการศึกษาระดับปริญญาตรีและโททางด้านวิศวกรรมไฟฟ้าจากสถาบันเทคโนโลยีแมสซาชูเซตส์ในปี ค.ศ. 1953 และ ค.ศ. 1954 ตามลำดับ และปริญญาเอกที่มหาวิทยาลัยโคลัมเบีย ในปี ค.ศ. 1957 โดยมีจอห์น รากัซซินีเป็นอาจารย์ที่ปรึกษา

คาลมาน เริ่มงานเป็นนักคณิตศาสตร์ ที่สถาบันวิจัยสำหรับการศึกษาขั้นสูง (Research Institute for Advanced Studies) ในบอลทิมอร์ รัฐแมริแลนด์ ในปี ค.ศ. 1958 จนถึงปี ค.ศ. 1964 และเข้าดำรงตำแหน่งศาสตราจารย์ที่มหาวิทยาลัยสแตนฟอร์ดในปี ค.ศ. 1964 ถึงปี ค.ศ. 1971 และดำรงตำแหน่งศาสตราจารย์และผู้อำนวยการศูนย์ทฤษฎีระบบเชิงคณิตศาสตร์ (Center for Mathematical System Theory) ที่มหาวิทยาลัยฟลอริดาในปี ค.ศ. 1971 ถึงปี ค.ศ. 1992 ในปี ค.ศ. 1973 คาลมานยังเข้าดำรงตำแหน่งประธานของภาควิชา ทฤษฎีระบบเชิงคณิตศาสตร์ที่สถาบันเทคโนโลยีสวิส ซูริค (ETH Zurich) อีกตำแหน่งด้วย

คาลมาน ยังเป็นสมาชิกของสมาคมวิทยาศาสตร์แห่งชาติของสหรัฐอเมริกา (U.S. National Academy of Sciences) และสมาคมวิศวกรรมศาสตร์แห่งชาติ (National Academy of Engineering) และสมาคมศิลปะและวิทยาศาสตร์แห่งสหรัฐอเมริกา (American Academy of Arts and Sciences) นอกจากนี้ คาลมานยังเป็นสมาชิกชาวต่างชาติของ สมาคมวิทยาศาสตร์แห่งชาติของฮังการี ฝรั่งเศส และรัสเซีย และยังได้รับปริญญาดุษฎีบัณฑิตกิตติมาศักดิ์มหาวิทยาลัยต่างๆเป็นจำนวนมาก

คาลมาน ได้รับเหรียญเกียรติยศของสถาบันวิชาชีพวิศวกรไฟฟ้าและอิเล็กทรอนิกส์ (IEEE Medal of Honor) ในปี ค.ศ. 1974 และเหรียญ IEEE Centennial Medal ในปี ค.ศ. 1984 รางวัลเกียวโตจากกองทุนอินาโมริ (Kyoto Prize) ในสาขาเทคโนโลยีขั้นสูง ค.ศ. 1985 และ Steele Prize จากสมาคมคณิตศสตร์อเมริกัน (American Mathematical Society)ในปี ค.ศ. 1987 รางวัล Richard E. Bellman Control Heritage Awardในปี ค.ศ. 1997 [4] และ Charles Stark Draper Prize จากสมาคมวิศวกรรมศาสตร์แห่งชาติใน ค.ศ. 2008 และในวันที่ 7 ตุลาคม ค.ศ. 2009 คาลมาน ได้รับรางวัลเหรียญวิทยาศาสตร์แห่งชาติ (National Medal of Science) จากประธานาธิบดีบารัก โอบามา สำหรับผลงานทางด้านทฤษฎีระบบควบคุม